Paylaş
0
Claude'un arkasındaki yapay zekâ şirketi Anthropic, tüyleri ürperten bir rapor yayınladı: "En güçlü yapay zekâ sistemlerini geliştirmeyi küresel olarak durdurun, çünkü kontrolü kaybetmek üzereyiz!"
Şirkete göre yeni modeller artık insan kontrolünden kaçabilecek sinyaller vermeye başladı. Yani bilim kurgu filmlerindeki "kontrolden çıkan robot" senaryosu, sandığımızdan çok daha yakın olabilir.
İçerikten Görseller
"Frene beraber basmazsak felaket olur"
Anthropic, küresel bir yavaşlamanın insanlık için en iyisi olduğunu savunuyor ancak büyük bir sorun var. Eğer sadece bir şirket veya ülke durursa, rakipleri gaza basmaya devam edecek. Bu yüzden ABD ve Çin başta olmak üzere tüm devlerin aynı anda "dur" demesi gerekiyor.
Şirket, bu durumu nükleer silah kontrol anlaşmalarına benzetiyor fakat yapay zekâyı saklamak nükleer bir füzeyi saklamaktan çok daha kolay olduğu için işimiz çok daha zor. Üstelik şirketler üzerindeki rekabet baskısı, bu tehlikeli yarışı sürekli körüklüyor.
İnsanlığın rolü giderek azalıyor
Gelelim en ürkütücü kısma. Yapay zekâ artık yeni yapay zekâlar geliştirmek için kullanılıyor. Anthropic, sistemlerin insan yardımı olmadan kendi kendini eğittiği ve geliştirdiği bir "kendi kendini geliştirme döngüsüne" girmek üzere olduğumuzu söylüyor. Rapordaki şu cümle ise durumun ciddiyetini özetliyor:
"Kanıtlar, yapay zekâ geliştirme sürecindeki her adımda insan rolünün giderek daraldığını gösteriyor."
Beyaz Saray, Anthropic’in siber güvenlik endişeleri nedeniyle halka açmadığı "Mythos" adlı gizemli modelinin gücünü kabul etmiş durumda. Hatta ABD Başkanı Donald Trump, geçtiğimiz günlerde Çin ile bu konuda iş birliğini görüştüğünü ve en güçlü modellerin piyasaya sürülmeden önce devlet tarafından incelenmesini zorunlu kılan bir kararname imzaladığını açıkladı.
Görünen o ki yapay zekâ kendi geleceğini yazmaya başlamadan önce, insanlığın ortak bir karar alması için zaman daralıyor.
